点击上方蓝字关注
2018年4月，在互联网上，美国网友发现了一段让人极其惊讶的视频。在视频中，美国前总统奥巴马对着镜头说出了这样的话：“President Trump is a total and complete dipshit（川普总统是个彻头彻尾的傻X）”接着镜头一分为二，《逃出绝命镇》的导演乔丹·皮尔出现在镜头前，表明这个视频是通过AI换脸技术伪造的。在视频中，乔丹·皮尔用这个例子告诫观众：（图源网络）
“这是一个很危险的时代，展望未来，对于信任互联网上的哪些内容，我们应该更加警惕。这是一个我们需要依赖可靠新闻来源的时代。在信息时代，我们往何处发展，决定了世界将走向生存还是毁灭。”这几天，这个视频又在中文互联网上火了一次，原因是一款名叫ZAO的换脸软件的火爆。“仅需一张照片，出演天下好戏”，以此为Slogan的App在上线第二天就在苹果应用商店排行榜中高居第二。由于上线人数过多，App甚至一度宕机。ZAO，是隶属于陌陌公司的一款产品，根据它提供的服务，仅需要一张正脸照，就可以用你的脸制作网络热门表情包，出演经典电影片段，跟idol、朋友飙戏。树大招风，许多网友从App提供的服务中嗅到了一些危险的信息。微博网友@法山叔从法律法规的角度提出了自己的质疑：
“作为法律工作者，我认为ai换脸中有很多法律问题是有争议的，于是便怀着好奇的心态看了下他们的用户协议，然后，我发现了协议中巨大猫腻，及我绝对无法接受的法律风险。”
“首先，我们先来看看ZAO的用户协议。用户协议第6条第1款规定：‘在您上传及/或发布用户内容以前，您同意或者确保实际权利人同意授予zao及其关联公司以及zao用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于可以对用户内容进行全部或部分的修改与编辑...”以及对修改前后的用户内容进行信息网络传播以及著作权人享有的全部著作财产权利及邻接权利。’
这是什么意思呢？你在正式使用该app以前，是要上传自己肖像的，不仅静态，还有动态，而当你选择使用这个app以后，根据协议内容，该app除了可免费使用并修改你的肖像，还可以将它任意授权给自己想授权的第三方，当做信息进行贩卖。
所以当有一天，你在zao或者其它关联平台上发现你的脸被随意变换、不再属于自己的时候，你想起诉zao，不好意思，它会拿出这个协议来堵你的嘴，告诉你你自己早已同意。
其次，我们再来看看关于侵权的规定。第6条第2款明确规定：“如果您把用户内容中的人脸换成您或其他人的脸，您同意或确保肖像权利人同意授予‘zao’及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利。”
比如现在你将杨幂的脸换成自己的脸，你除了要保证自己永久、不可撤销地把自己的肖像免费给zao使用，还要保证杨幂同意zao及关联公司使用她的肖像...但你又不是杨幂，你怎么能确保？这不搞笑吗。而他这么做，说白了，就是因为自己没钱拿到明星们的授权，日后侵权，它们可以将锅甩给你们。而在此情形下，协议第七条第7款规定：若您侵害他人名誉权、肖像权、知识产权等合法权利的...zao可以诉诸行政执法机构或司法机关，追究相应法律责任。若因您违反本协议或zao平台的其他规则导致任何第三方损害的，您应当独立承担法律责任并承担损害赔偿责任；zao及其关联公司遭受损失的，您也应当一并赔偿。意思即，如果杨幂状告zao，主张自己的肖像权被zao平台滥用，那zao完全可能说这不怪我，技术无罪，要怪就怪这些换你脸的用户，并且，即使zao承担了平台责任，其也完全可以起诉具体用户进行追偿。总的来说，他们把自己的屁股擦得非常干净，将侵权的苦果全部甩给了用户。
01
“ZAO”app涉嫌过度攫取用户授权，让你在无形中将自己的肖像权拱手让人，以后你的脸将完全有可能被别人随意使用，变换。
02
zao并未获得换脸明星们的肖像权授权，你变脸涉嫌侵权，但当明星认为自己的权利受到侵害时，“ZAO”app将完全有可能将法律的锅全部甩给你，让你自己承担侵权苦果。”
此言论一出，许多网友表示了支持，并表达了对隐私权问题的担忧。随着质疑声愈演愈烈，9月3日，工信部对App相关负责人进行了问询约谈。同日上午，“ZAO”发布声明道歉：“ZAO”不会存储个人面部生物识别特征信息。
2017年12月，一位名叫“Deepfakes”的Reddit论坛用户上传了一系列不雅视频，视频中出现的女性有我们熟悉的“神奇女侠”盖尔加朵与“赫敏”艾玛沃特森等人。
当然，这些视频都不是真的，而是通过AI技术伪造所得。这种技术造假的成本很低，简单易行，仅仅需要一些换脸双方的图像资料即可实施。
自此之后，AI换脸始终是一个热度不低的话题，从Facebook创始人马克·扎克伯格到美国总统特朗普，从斯嘉丽·约翰逊再到一众女星，“受害者”数目不断上升。
@果壳网曾按时间线整理过AI换脸技术掀起过的波澜：
2017
12月
Reddit网友“Deepfakes”在社区r / deepfakes发布伪造的名人色情视频，其中包括演员斯嘉丽·约翰逊、歌手泰勒·斯威夫特和凯蒂·佩里等人。
Deepfakes声称自己所使用的是多个深度学习的开源库，例如Google 的人工智能框架TensorFlow。
20181月能够换脸的软件FakeApp推出，该软件同样基于TensorFlow开发。
20182月Reddit禁止用户在r / deepfakes分享深度学习伪造的非自愿色情内容，Twitter和成人视频网站Pornhub也在随后做出类似举动。
20189月Google在禁止列表里添加了“非自愿合成色情图像”，允许任何人请求搜索引擎封锁有关自己的虚假色情内容。
201812月斯嘉丽·约翰逊在《华盛顿邮报》公开谈论Deepfake事件：“任何人都会成为目标，这只是时间问题”。
20192月26日，一段杨幂的换脸视频蹿红网络。名为“换脸哥”的B站Up主通过Deepfake修改了94版《射雕英雄传》的视频片段，将朱茵的脸换成杨幂的脸。
2月27日，“换脸哥”发布微博称“及时下架了相关视频”，并指出“大家应尊重版权与肖像权，专注于技术本身”。
2019
6月
DeepNude的Windows和Linux程序公开下载，该程序能够将图像中女性的衣物删除。6月27日，DeepNude的开发者关闭该程序。
色情视频只是越来越易得的AI换脸技术带来的危害之一，政治上的攻讦与造谣，经济上的诈骗与操纵，“Deepfake”带来的影响随着时间的推移越来越深。
（图源网络）
今年 6 月时，Facebook 首席执行官马克扎克伯格的一段被AI换脸篡改过的视频浮出水面，在视频中他对该公司的用户数据隐私提出了质疑。这已不是第一起由于换脸视频而引发的假新闻。2018年5月，美国总统特朗普宣布中止全球气候变化协议，随后被比利时某政党利用DeepFake篡改，做了一个“特朗普宣告比利时政府也应退出”的假视频，引起比利时民众的公愤。
在这种情况下，对新闻的事实核查又一次被提上日程。2017年4月，Google全面推出事实核查功能，借助第三方平台提供的核查结果，对信息的真伪进行标注，这是继去年10月Google在新闻搜索栏目中启用“事实核查”功能后，进一步将其应用扩大到所有普通搜索结果中。
而在国内，以腾讯“较真”等为代表的新闻事实核查平台逐步兴起，开始对一些耸人听闻的新闻和要素存疑的新闻进行事实核查，处理不靠谱的新闻源，有效控制假新闻的传播。
随着社交媒体成为主要的传播媒介，信息量与信息传播速度均超出了人工核查的能力范围，因此，基于人工智能和大数据技术的计算机自动事实核查成为当前事实核查的主流手段与研究方向。
美国大选后，Google、Twitter、Facebook等互联网平台因虚假新闻泛滥而饱受质疑，这些互联网巨头因而纷纷开展事实核查工具的研发。目前主流的事实核查算法主要是从新闻的来源、内容、传播网络等特征入手进行事实核查。对于“Deepfake”技术而言，美国国防部高级研究计划局（DARPA）已经专门成立“媒体取证”项目（The Media Forensics）来解决“Deepfake”带来的问题，并资助研究者探索自动检测Deepfake的最佳方法。
（图源网络）
曾经因《大数据时代》一书而在中国获得广泛关注的学者维克托·迈尔－舍恩伯格，在另一本关于大数据时代的著作《删除：大数据时代的取舍之道》里，提出了一个不可回避的问题：今天这个时代，遗忘变成例外，记忆成为常态，人类住进了数字化的圆形监狱。舍恩伯格不仅指出了“数字化监视”这一种现实，也指出了因数据保留的永恒而使监视成为永恒的可能。也正是对这一问题的担忧，催生了被遗忘权的提出。被遗忘权概念在官方的首次提出是在欧盟2012年出台的《一般数据保护条例》中，条例称：信息主体有权要求信息控制者删除与其个人相关的资料信息。该权利被称为被遗忘及擦除权（The right to be forgotten and to erasure）。
传播学者吴飞等指出，一方面我们要保护私人领地的神圣性，要防止有人假公济私，但同样也必须保护公共领域的开放性，要防止有人假私损公。但这种平衡的拿捏并非易事。从技术上看，网络信息复制、扩散的方便，意味着“删除”未必是能“一键实现”的。另一个值得注意的事实是，被遗忘权或删除权更多地是在学界和法律界被讨论，大多数普通人并不知道它的存在。在ZAO这款App上，在许多人根本不知情的情况下，你需要保证自己永久、不可撤销地把自己的肖像免费给ZAO使用，这就留下了非常大的安全隐患。
在今天，数据上的“遗忘”还是例外。即使有被遗忘权或删除权，个体也会面临比以往更多的风险，虽然谨言慎行或许是人们自认为的减少风险的办法，但在算法通过若干点赞就可以判断用户的性格的情况下，在未来各种传感器可以随时随地捕捉人的数据的情况下，记忆仍会是常态。
（图源网络）
属于自己的数据，保存权却不在用户，用户本身也无法限制其使用范围，这是数字时代对隐私权的一个巨大挑战，棱镜门事件、Facebook数据门事件，更是引发了这方面集中的讨论。今天的公众未必都没有隐私保护意识，也不是所有人都愿意拿隐私换便利，但是，对公众来说，一个大的问题是，他们并不知道自己的隐私会如何被侵犯，被侵犯到何种程度。
他们与那些掌握并利用甚至可能出卖他们的隐私数据的公司之间，天然是不平等的。在缺乏对自己数据的知情能力的情况下，隐私保护也就无从谈起。
虽然在某些时候，以隐私换便利是用户的一种不得已的选择，但用户应该有权利知道，出让的是哪些隐私数据，能获取哪些便利，以便他们做出权衡。
但今天的网络服务提供者多数并没有提供充分的解释，即使有一些隐私条款，也往往语焉不详或者暗藏陷阱。
ZAO事件带来的另一个思考是用户数据使用权限的边界。即使用户同意向某个服务商提供个人信息，但服务商是否有权向第三方透露？而第三方是否又可以再次将数据转手？
网络中的数据都是相互关联的，获取未经授权的关联数据是否合法？或许在理论上做出限定是容易的，但在现实中的操作，又并非那么简单。
在个体被随时随地“数字化”映射的情况下，隐身，也是保护隐私的一个重要方面。
虽然在法律上要独立形成一种“隐身权”或许并不现实（它更有可能是隐私权中的一部分），但至少在技术层面，需要给予用户更多的“隐身”可能。在物联网将广泛应用的未来，隐身许可将变得更为重要。
（图源网络）
ZAO提供的换脸功能不仅可能提升人们的存在感，也在一定意义上帮助人们描绘出心中“理想自我”和“理想生活”的幻像。
今天在社交平台上使用功能与ZAO类似的App的行为变得如此普遍，不经修饰的图片或者影像就如同女生不化妆一样成为另类。当人们习惯经过修饰的幻像后，反而会对那些没经过修饰直接呈现生活真相的照片大惊小怪。
美国学者戈夫曼提出的“拟剧理论”指出，在我们的日常交往和生活中，人人都是表演者，在特定的情境、不同的舞台上认识到别人对我们行为的期待以及我们对他人思想、感情和行动的期待，不断根据自己身处的舞台以及交往对象调整自己的行为。
人们表演的区域有前台和后台之分。前台是人们正在进行表演的地方，后台则是为前台表演作准备的、不想让观众看到的地方。人们在前台的行为举止与后台是不一样的。
在社交互动中，人们更愿意展现出自己良好的一面，也会在“表演”与“修饰”中美化自己，因为这更有可能带来积极的回馈。
通过App对生活场景进行美化，也是为了将其中那些不尽如人意或不想示人的“后台”部分淡化，而突出那些自己更在意或者希望被别人欣赏的部分，将之展现在“前台”。ZAO类App制造的不仅是个人化的幻像，也可能会弥散为一种社会化的幻景。从媒介的角度看，社交平台人们分享的内容，正在建构一种新的“拟态环境”。
相比过去媒体所生产的“拟态环境”，每个人都可能参与社交平台的拟态环境建构，他们提供的多样视角下多元的内容，可以覆盖更广泛的社会层面，这样的拟态环境似乎应该离现实更近。
但事实上，多数个体的社交账号，所呈现的是经过挑选、修饰与编排的信息，它们仍然是对现实的一种“再构成”，而ZAO类App的运用，更使得社交平台弥漫着真假难辨的图景，有时人们甚至会“入戏太深”，分不清现实与“戏”之间的差异。
在现实与幻像之间摇摆的个体图景汇聚于社交平台，最终所呈现的社会景观，自然也难免虚虚实实，很难完整还原社会的真实面貌。
参考文献[1]彭兰.美图中的幻像与自我[J].现代传播(中国传媒大学学报),2018,40(12):14-18.
[2]彭兰.假象、算法囚徒与权利让渡:数据与算法时代的新风险[J].西北师大学报(社会科学版),2018,55(05):20-29. ▼
▼
本周六（9月7日）晚7:00，东哥带你搞定「专题式学习方法（历届高分秘籍）」，高维度冲刺复习想要高分上岸，快快报名觅游专题热点论述班=专题班+热点班+答题班+模拟班，一站式解决从基础到作答的所有问题。